Asymmetric Capacity Allocation in Self-Refinement Pipelines
自精炼流水线中的非对称容量分配
🧭 LLM 自精炼流水线非对称容量分配
University of California, Irvine · Drexel University
首次按阶段研究自精炼流水线模型规模：生成与精炼需大模型，评论器小模型即可
📌 工作参考价值（4 点）
- 多阶段生成/改写流水线不要均匀分配模型规模：生成器和精炼器用大模型，评论器可大幅缩小；评论器只做判别，容量不敏感，能省大量 KV cache 和算力。
- 部署自反思/reflection agent 时，用小模型作 critic 过滤中间结果、大模型做 revision，可保持质量同时显著降低耗时与成本；避免 critic 也上大模型。
- 注意 refiner 不要过度缩小：过小的 refiner 可能把已经不错的生成改坏，形成负增益；推荐理由、商品文案生成等场景应为 revision 保留充分容量。
- 若业务使用生成-评论-改写 pipeline 做 query 推荐或 push 文案，可按此分配预算：先固定大 generator，选择尽量小的 critic，再粗测 refiner 的敏感区间。